Just-in-Time Memory: Learning to Curate Task-Adaptive Memory for LLM Agents
即时记忆：为 LLM Agent 学习任务自适应记忆策展
🧭 Agent 记忆 · 读时策展 / GRPO ★ 深度解读
Salesforce AI Research
把记忆策展从写时推迟到读时，保留原始轨迹并按当前任务合成紧凑 payload，用 GRPO 以即时成功奖励训练策展器，显著提升 Agent 成功率与效率
📌 工作参考价值（4 点）
- 把用户行为序列 / 任务执行日志以原始轨迹存入记忆库，不在写入时总结；推理时用当前 query 或 task 条件化地检索并动态生成 brief，可适配不同下游任务，避免信息过早丢失。
- 训练一个独立于执行器的轻量策展器（curator），用 GRPO 以即时任务奖励（成功与否）更新；奖励无延迟，无需人工分组相关任务，训练稳定且可跨 executor 迁移。
- 工程上：检索用 BM25 仅在任务描述上做，轻量解耦；存储时用 LLM-as-judge 只滤出成功轨迹，比保留全部并标注是否正确更有效；生成的紧凑 payload 能降低 executor 输入 token 50% 左右和步数 28% 以上。
- 冷启动直接空记忆库上线即可，warm-start 收益不大；若需进一步提升，可做一次 staged bank refresh（用训练好的 curator 重建训练库）但收益有限。